世辉短评 | 新型风险和技术中立—快评《互联网信息服务算法推荐管理规定（征求意见稿）》

2021年8月27日，国家互联网信息办公室（以下简称“网信办”）发布了《互联网信息服务算法推荐管理规定（征求意见稿）》（以下简称“算法推荐新规”），全文共30条，对算法推荐提出了规范要求。

算法推荐新规主要包括如下内容：

一、规制算法推荐的法律依据

《网络安全法》、《数据安全法》、《个人信息保护法》、《互联网信息服务管理办法》

二、算法推荐技术的定义

算法推荐技术，是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容。

●

三、算法推荐提供者的主要义务

● 坚持主流价值导向，优化算法推荐服务机制

● 落实算法安全主体责任 

● 定期审核、评估、验证算法机制机理、模型、数据和应用结果等

● 加强信息内容管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序

● 加强用户模型和用户标签管理

● 加强算法推荐服务版面页面生态管理

● 综合运用策略，优化规则的透明度和可解释性

● 以显著方式告知用户算法推荐服务的原理、机制等情况

● 向用户提供不针对其个人特征的选项，及修改、删除用户标签的功能

● 履行未成年人网络保护义务

● 保障劳动者权益

● 保护消费者合法权益

● 具有舆论属性或者社会动员能力的算法推荐服务提供者应履行备案手续，在显著位置标明备案编号和公示信息链接

● 具有舆论属性或者社会动员能力的算法推荐服务提供者应开展安全评估

●

四、算法推荐服务提供者不得从事的行为（负面清单）

● 不得利用算法推荐服务从事危害国家安全、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动

● 不得利用算法推荐服务传播法律、行政法规禁止的信息

● 不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容

● 不得设置歧视性或者偏见性用户标签

● 不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型

● 不得利用算法虚假注册账号、非法交易账号、操纵用户账号，或者虚假点赞、评论、转发、网页导航等，实施流量造假、流量劫持

● 不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施自我优待、不正当竞争、影响网络舆论或者规避监管

● 不得向未成年人用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容，不得利用算法推荐服务诱导未成年人沉迷网络

● 不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为

对于“算法推荐新规”，我们有如下几点评论

一、 当算法推荐技术和大数据结合，并应用于有大量用户的互联网应用中，会对普通人产生重大影响，甚至影响国家安全、扰乱经济秩序。算法推荐新规，是对新技术新应用带来的新型风险的回应。这类新型风险，特点是技术性很强，边界不清晰，但在应用层面容易被用户感知，持续引发各类舆情事件，要求进行规制的呼声较强。

二、 算法推荐新规与近年来网信办制定的一系列规范性文件一脉相承，其重点在于落实平台企业的主体责任。网信办之前曾发布《即时通信工具公众信息服务发展管理暂行规定》《互联网用户公众账号信息服务管理规定》《互联网跟帖评论服务管理规定》《互联网群组信息服务管理规定》《互联网论坛社区服务管理规定》《区块链信息服务管理规定》《互联网新闻信息服务新技术新应用安全评估管理规定》《微博客信息服务管理规定》《互联网直播服务管理规定》，均对应细分功能或技术，立法技术也不断提高，提出很多细化了的规则，实施精准打击。

三、 如何监管算法，在世界范围内都是前沿问题，有很多争论。如果要想在理论上把算法问题梳理清楚，再进行规制，需要花费较多的时间，这也是世界范围内至今尚无成熟的算法立法的原因。而推荐算法新规，并不试图防范算法带来的各类风险，而只针对相对细分的场景，重在规制风险比较明显、后果比较严重的行为。一方面通过设定义务，要求企业在使用算法推荐技术时，必须符合特定的条件，另一方面对于上述负面清单中的情形直接加以禁止。

四、 算法推荐新规，和近年其他新技术领域的监管规则类似，再次引发对 “技术中立”的讨论。我们想引用立法者的一段论述（来自《反不正当竞争法》理解与适用）：

 不能将技术中立绝对化，简单地将技术中立作为免除法律责任的挡箭牌。在看待技术中立这一问题时，技术与网络产品或服务的中立性并不是一个概念，如果针对性开发体现了网络产品或服务反映出的提供者在价值取向上具有恶意，即使造成损害是技术自动运行的结果或用户自主选择的结果，都不会影响网络产品或服务的提供者从开发时就实施的恶意。

算法推荐技术无疑是技术创新，也会带来很多便利，但通过对行为的规制，防止抽象的算法损害具体的人（如未成年人、劳动者），是需要法律人员和技术人员共同讨论的话题。这是算法推荐新规试图解决的问题，如果有不同的思路，也欢迎和我们讨论。

（本文作者：世辉律师事务所 王新锐）